Identifying statistical regularities in solutions to some tasks in multi-task reinforcement learning can accelerate the learning of new tasks. Skill learning offers one way of identifying these regularities by decomposing pre-collected experiences into a sequence of skills. A popular approach to skill learning is maximizing the likelihood of the pre-collected experience with latent variable models, where the latent variables represent the skills. However, there are often many solutions that maximize the likelihood equally well, including degenerate solutions. To address this underspecification, we propose a new objective that combines the maximum likelihood objective with a penalty on the description length of the skills. This penalty incentivizes the skills to maximally extract common structures from the experiences. Empirically, our objective learns skills that solve downstream tasks in fewer samples compared to skills learned from only maximizing likelihood. Further, while most prior works in the offline multi-task setting focus on tasks with low-dimensional observations, our objective can scale to challenging tasks with high-dimensional image observations.

语言模型既展示了定量的改进，又展示了新的定性功能，随着规模的增加。尽管它们具有潜在的变革性影响，但这些新能力的特征却很差。为了为未来的研究提供信息，为破坏性的新模型能力做准备，并改善社会有害的效果，至关重要的是，我们必须了解目前和近乎未来的能力和语言模型的局限性。为了应对这一挑战，我们介绍了超越模仿游戏基准（Big Bench）。 Big Bench目前由204个任务组成，由132家机构的442位作者贡献。任务主题是多样的，从语言学，儿童发展，数学，常识性推理，生物学，物理学，社会偏见，软件开发等等。 Big-Bench专注于被认为超出当前语言模型的功能的任务。我们评估了OpenAI的GPT型号，Google内部密集变压器体系结构和大型基础上的开关稀疏变压器的行为，跨越了数百万到数十亿个参数。此外，一个人类专家评估者团队执行了所有任务，以提供强大的基准。研究结果包括：模型性能和校准都随规模改善，但绝对的术语（以及与评估者的性能相比）；在模型类中的性能非常相似，尽管带有稀疏性。逐渐和预测的任务通常涉及大量知识或记忆成分，而在临界规模上表现出“突破性”行为的任务通常涉及多个步骤或组成部分或脆性指标；社交偏见通常会随着含糊不清的环境而随着规模而增加，但这可以通过提示来改善。

单击后键盘转换为指示用户偏好的强信号，是构建推荐系统的良性。但是，由于选择偏差，即，观察到的单击事件通常会发生在用户的首选项目，准确地估计点击后击率（CVR）是具有挑战性的。目前，大多数现有方法利用反事实学习到Debias推荐系统。其中，双重稳健（DR）估计器通过以双重稳健的方式组合基于误差估算的（EIB）估计和逆倾向分数（IPS）估计来实现竞争性能。然而，不准确的误差估算可能导致其比IPS估计器更高的方差。更糟糕的是，现有方法通常使用简单的模型 - 不可知方法来估计归纳错误，这不足以近似于近似于动态改变的模型相关目标（即预测模型的梯度方向）。为了解决这些问题，我们首先导出DR估算器的偏差和方差。基于它，已经提出了一种更强大的双重稳健（MRDR）估计器，以进一步降低其差异，同时保持其双重稳健性。此外，我们为MRDR估算器提出了一种新的双重学习方法，可以将误差归纳转换为一般的CVR估计。此外，我们经验验证所提出的学习方案可以进一步消除估算学习的高方差问题。为了评估其有效性，在半合成数据集和两个现实世界数据集上进行了广泛的实验。结果证明了所提出的方法的优越性在最先进的方法中。代码可在https://github.com/guosyjlu/mrdr-dl上获得。

最先进的参数和非参数样式转移方法容易导致由于全局统计的对准而导致的本地样式模式，或者由于补丁不匹配而导致的不愉快的人工制品。在本文中，我们研究了一种新型的半参数神经风格转移框架，可减轻参数和非参数风格的缺乏。我们方法的核心思想是使用图神经网络（GNN）建立准确且细粒的内容样式对应关系。为此，我们开发了一个详细的GNN模型，其中包含内容和样式的本地补丁作为图形顶点。然后，将样式转移过程建模为基于注意力的异质消息，以可学习的方式在样式和内容节点之间传递，从而导致本地补丁级别的自适应多一对一风格的相关性。此外，引入了详细的可变形图卷积操作，以进行跨尺度样式符合匹配。实验结果表明，所提出的半参数图像样式化方法可为具有挑战性的样式模式产生令人鼓舞的结果，从而保留了全球外观和精美的细节。此外，通过控制推理阶段的边缘数量，提出的方法还触发了新的功能，例如使用单个模型的多元化基于斑块的风格化。

随着机器学习（ML）更加紧密地编织到社会中，如果我们要负责任地使用它，我们必须更好地表征ML的优势和局限性。现有的ML基准环境（例如董事会和视频游戏）为进度提供了明确定义的基准测试，但是组成的任务通常很复杂，而且通常不清楚任务特征如何对机器学习者的整体难度有所贡献。同样，如果没有系统地评估任务特征如何影响难度，则在不同基准环境中的性能之间建立有意义的联系是一项挑战。我们介绍了一个新颖的基准环境，该环境提供了大量的ML挑战，并可以精确地检查任务要素如何影响实际难度。工具框架学习任务是“董事会清除游戏”，我们称之为“隐藏规则”游戏（GOHR）。环境包括一种表达性的规则语言和可以在本地安装的圈养服务器环境。我们建议一组基准的规则学习任务，并计划为有兴趣尝试学习规则的研究人员提供绩效领导者板。 GOHR通过允许对任务进行罚款，受控的修改来补充现有环境，使实验者能够更好地了解给定学习任务的每个方面如何有助于其对任意ML算法的实际困难。

最近，Miller等。结果表明，模型的分布（ID）精度与几个OOD基准上的分布（OOD）精度具有很强的线性相关性 - 一种将它们称为“准确性”的现象。虽然一种用于模型选择的有用工具（即，最有可能执行最佳OOD的模型是具有最高ID精度的模型），但此事实无助于估计模型的实际OOD性能，而无需访问标记的OOD验证集。在本文中，我们展示了一种类似但令人惊讶的现象，也与神经网络分类器对之间的一致性一致：每当在线准确性时，我们都会观察到任何两个神经网络的预测之间的OOD一致性（具有潜在的不同架构）还观察到与他们的ID协议有很强的线性相关性。此外，我们观察到OOD与ID协议的斜率和偏置与OOD与ID准确性的偏差非常匹配。我们称之为“协议”的现象具有重要的实际应用：没有任何标记的数据，我们可以预测分类器的OOD准确性}，因为只需使用未标记的数据就可以估算OOD一致性。我们的预测算法在同意在线达成的变化中都优于先前的方法，而且令人惊讶的是，当准确性不在线上时。这种现象还为深度神经网络提供了新的见解：与在线的准确性不同，一致性似乎仅适用于神经网络分类器。

输入分布转移是无监督域适应（UDA）中的重要问题之一。最受欢迎的UDA方法集中在域不变表示学习上，试图将不同域中的功能调整为相似的特征分布。但是，这些方法忽略了域之间的输入单词分布的直接对齐，这是单词级分类任务（例如跨域NER）的重要因素。在这项工作中，我们通过引入子词级解决方案X-Pience来为输入单词级分布移动，从而为跨域NER开发了新的灯光。具体而言，我们将源域的输入单词重新划分以接近目标子词分布，该分布是作为最佳运输问题制定和解决的。由于这种方法着重于输入级别，因此它也可以与先前的DIRL方法相结合，以进一步改进。实验结果表明，基于四个基准NER数据集的Bert-Tagger所提出的方法的有效性。同样，事实证明，所提出的方法受益于诸如Dann之类的DIRL方法。

随着在线错误信息的扩散，假新闻检测在人工智能界中获得了重要性。在本文中，我们提出了一个对抗的基准，测试假新闻探测器对现实世界事实的推理的能力。我们制定针对“了解”的三个方面的对抗性攻击：组成语义，词汇关系和对修饰符的敏感性。我们使用在Liar Arxiv上微调的BERT分类器测试我们的基准测试：ARCH-IVE / 1705648和Kaggle假新闻数据集，并显示两种模型未能响应组成和词汇意义的变化。我们的结果加强了对这些模型的需求与其他事实检查方法一起使用。

In this paper, we propose a robust 3D detector, named Cross Modal Transformer (CMT), for end-to-end 3D multi-modal detection. Without explicit view transformation, CMT takes the image and point clouds tokens as inputs and directly outputs accurate 3D bounding boxes. The spatial alignment of multi-modal tokens is performed implicitly, by encoding the 3D points into multi-modal features. The core design of CMT is quite simple while its performance is impressive. CMT obtains 73.0% NDS on nuScenes benchmark. Moreover, CMT has a strong robustness even if the LiDAR is missing. Code will be released at https://github.com/junjie18/CMT.

Dataset distillation has emerged as a prominent technique to improve data efficiency when training machine learning models. It encapsulates the knowledge from a large dataset into a smaller synthetic dataset. A model trained on this smaller distilled dataset can attain comparable performance to a model trained on the original training dataset. However, the existing dataset distillation techniques mainly aim at achieving the best trade-off between resource usage efficiency and model utility. The security risks stemming from them have not been explored. This study performs the first backdoor attack against the models trained on the data distilled by dataset distillation models in the image domain. Concretely, we inject triggers into the synthetic data during the distillation procedure rather than during the model training stage, where all previous attacks are performed. We propose two types of backdoor attacks, namely NAIVEATTACK and DOORPING. NAIVEATTACK simply adds triggers to the raw data at the initial distillation phase, while DOORPING iteratively updates the triggers during the entire distillation procedure. We conduct extensive evaluations on multiple datasets, architectures, and dataset distillation techniques. Empirical evaluation shows that NAIVEATTACK achieves decent attack success rate (ASR) scores in some cases, while DOORPING reaches higher ASR scores (close to 1.0) in all cases. Furthermore, we conduct a comprehensive ablation study to analyze the factors that may affect the attack performance. Finally, we evaluate multiple defense mechanisms against our backdoor attacks and show that our attacks can practically circumvent these defense mechanisms.